Chats with AI bots found to damp conspiracy theory beliefs

Conspiracy theorists who debated with an artificial intelligence chatbot became more willing to admit doubts about their beliefs, according to research that offers insights into dealing with misinformation.

По-голямата неприкритост се разшири даже и до най-упоритите предани и продължи дълго след приключването на разговора с машината, откриха учените.

Изследването опонира на концепцията, че е всичко, само че невероятно да се Променете мнението на хората, които са се потопили по заешки дупки на известни, само че неизвинени хрумвания.

Констатациите са поразителни, тъй като допускат евентуална позитивна роля за AI модели в противопоставяне на дезинформацията, макар личните си уязвимости към „ халюцинации “, които от време на време ги предизвикват да популяризират неистини.

Работата “paints a brighter picture of the human mind than many might have expected ” and shows that “reasoning and evidence are not dead ”, said David Rand, one of the researchers on the work published in Science on Thursday.

„ Дори доста теоретици на конспирацията ще отговорят на точни обстоятелства и доказателства - просто би трябвало да се справите непосредствено с техните характерни убеждения и терзания “, споделя Ранд, професор от Масачузетския Технологичен учебен учебно заведение по мениджмънт.

„ Въпреки че има необятно публикувани законни терзания по отношение на силата на генеративния ИИ да популяризира дезинформация, нашият документ демонстрира по какъв начин тя също може да бъде част от решението, като е високоефективен учител “, добави той.

Изследователите разгледаха дали AI огромни езикови модели като GPT-4 Turbo на Openai могат да употребяват способността си за достъп и обобщаване на информация за справяне с непрекъснати тайни убеждения. Те включват, че терористичните офанзиви на 11 септември 2001 година са проведени, президентските избори в Съединени американски щати през 2020 година и пандемичните органи на Covid-19.  

Почти 2200 участници споделиха тайни хрумвания с LLM, които генерираха доказателства за противопоставяне на изказванията. Тези разговори редуцират самооценената религия на индивида в определената от тях доктрина приблизително 20 на 100 за най-малко два месеца след диалози с бота, споделят откривателите.

Професионалният инспекция на обстоятелствата оцени извадка от личния излаз на модела за акуратност. Проверката откри, че 99,2 на 100 от претенциите на LLM са правилни и 0,8 % подвеждащи, споделиха учените.

Персонализираният метод на изследването и отговор е отговор на очевидната неефективност на доста съществуващи тактики да развенчавате дезинформация. ; За това за какво наподобява, че взаимоотношението на чатбота работи добре, е, че той има неотложен достъп до всевъзможен тип информация, по метод, по който човешкият респондент не го прави.

Машината също се занимаваше със своите човешки събеседници в учтиво и съпричастно отношение, за разлика от презрението, от време на време насъбрано от теоретиците на конспирацията в действителния живот.

Други проучвания обаче предложиха на машината на машината. Начинът на адрес евентуално не е значим фактор, сподели Ранд. Той и неговите сътрудници бяха създали следващ опит, в който AI беше подбуден да даде фактическа промяна „ без никовете “ и той работи също толкоз добре, добави той.

„ Размерът, стабилността на проучването, и постоянството на намаляването на вярванията на конспирацията “предложи„ мащабируема намеса за калибриране на дезинформирани убеждения може да бъде в обсега “, съгласно съпътстващия коментар, оповестен и в науката.

But possible limitations included difficulties in responding to new conspiracy theories and in coaxing people with low trust in scientific institutions to interact with the bot, said Bence Bago from the Netherlands' Tilburg University and Jean-François Bonnefon of the Toulouse Училище по стопанска система, които са създател на вторичния документ дружно.

„ Техниката за разговор на AI е толкоз мощна, тъй като автоматизира генерирането на характерни и задълбочени контра-доказателства за комплицираните причини на вярващите в конспирацията и затова може да бъде разгърнато, с цел да даде точна, коригираща информация в мащаб “, сподели Баго и Бонефон, които не са взели участие в проучването.

„ Важно ограничаване за реализирането на този капацитет се крие в доставката “, прибавиха те. „ А точно по какъв начин да накараме хора с укрепени тайни убеждения да се ангажират с вярно подготвена AI стратегия за начало. “